Harm Laundering in GPT Models: Evidence That Gender Discrimination Is Transformed Rather Than Reduced Across Safety-Trained Generations
GPT 模型中的伤害洗白：性别歧视在安全训练世代间被转化而非减少
🧭 LLM 安全评估 · 偏见转化检测
Durham University
安全训练降低毒性分数，但性别歧视被转化为隐性代表伤害，毒性指标不足为据
📌 工作参考价值（4 点）
- 在生成式推荐/搜索/Agent 输出中，仅看整体毒性、满意度或安全拦截率会掩盖群体差异；需按用户属性或内容主题分组对比，类似 REGARD 的代表性伤害指标，而不是只依赖 Detoxify 类毒性分数。
- 警惕安全对齐后的隐性偏见转化：显式歧视词被替换为看似中立但偏向某群体的讨论（如将女性健康话题转为男性权利框架）。在推送文案、产品标题、对话回复生成时，应检查语义话题在不同群体上的分布是否对称，而不仅是文本表面。
- 三阶段检测协议（分组话题聚类、情感极性对比、语义簇审计）可直接迁移到线上生成内容的公平性监控，尤其适合女性/男性、不同地域用户、不同商品类目等分组，识别 harm laundering 型差异。
- 过度纠正风险：对齐可能使情感极性反转（如早期贬低女性、后期过度美化），导致新的体验不公平。需要监控生成结果的情感分布，避免善意补偿变成另一种偏差。